Năm 1954 Thái Phụng Nê tập kết ra bắc, học tại hai trường phổ thông danh tiếng ở phía Bắc là Trường Huỳnh Thúc Kháng ở Đô Lương, Nghệ An và Trường Phan Đình Phùng ở Hà Tĩnh. Sau khi học xong và thi tốt nghiệp phổ thông, được đưa ra Hà Nội và cử đi học ở nước ngoài năm 1955.Tại Trường Đại học Xây dựng ở Mạc Tư Khoa, Thái Phụng Nê được phân công học khoa Thủy công, xây dựng các công trình trên nước như cảng, đập, thủy điện… Sau 5 năm, tốt nghiệp đại học năm 1961, lại bảo vệ thành công luận án phó tiến sĩ tại Liên Xô năm 1964,